摘要。本研究解决了域级逐步学习问题,这是一种现实但具有挑战性的持续学习场景,在该方案中,域分布和目标类别跨任务各不相同。为处理这些不同的任务,引入了预训练的视力语言模型(VLM),以实现其强大的推广性。但是,这会引起一个新问题:在适应新任务时,预先训练的VLMS中编码的知识可能会受到干扰,从而损害了它们固有的零射击能力。现有方法通过在额外的数据集上使用知识蒸馏来调整VLM来解决它,这需要大量计算。为了有效地解决此问题,我们提出了无知的无干扰知识集成(DIKI)框架,从避免避免信息干扰的角度来保留对VLM的预训练的知识。具体来说,我们设计了一种完全残留的机制,可以将新学习的知识注入冷冻的骨干中,同时引发对预训练的知识的不利影响最小。此外,此残差属性可以使我们的分布感知的集成校准方案明确控制来自看不见的分布的测试数据的信息植入过程。实验表明,我们的二基仅使用训练有素的参数超过了当前的最新方法,并且需要较少的训练时间。代码可在以下网址找到:https://github.com/lloongx/diki。
主要关键词
![ARXIV:2407.05342V1 [CS.CV] 7 JUL 2024
在中的重建和未结构结构共存
评估人类协作:...
arxiv:2407.07035v1 [CS.CL] 9月9日2024
观察非易失性磁性 - 热切换...
旋转角动量的光子准晶体
土匪的集中差异隐私
在AI-... 中优化以人为中心的目标
算法什么时候应该辞职? AI治理的提案
通过预测分析增强网络安全
基于事件触发的增强学习基于超级可靠的低延迟v2x通信的联合资源分配PDF文件第1页](/bimg/c/c9a2f182096cfddf09c2fee20f53f6ed391f8100.webp)
![ARXIV:2407.05342V1 [CS.CV] 7 JUL 2024
在中的重建和未结构结构共存
评估人类协作:...
arxiv:2407.07035v1 [CS.CL] 9月9日2024
观察非易失性磁性 - 热切换...
旋转角动量的光子准晶体
土匪的集中差异隐私
在AI-... 中优化以人为中心的目标
算法什么时候应该辞职? AI治理的提案
通过预测分析增强网络安全
基于事件触发的增强学习基于超级可靠的低延迟v2x通信的联合资源分配PDF文件第2页](/bimg/4/4c8b02b4de579cf30cacce5d014e5e97d79fa514.webp)
![ARXIV:2407.05342V1 [CS.CV] 7 JUL 2024
在中的重建和未结构结构共存
评估人类协作:...
arxiv:2407.07035v1 [CS.CL] 9月9日2024
观察非易失性磁性 - 热切换...
旋转角动量的光子准晶体
土匪的集中差异隐私
在AI-... 中优化以人为中心的目标
算法什么时候应该辞职? AI治理的提案
通过预测分析增强网络安全
基于事件触发的增强学习基于超级可靠的低延迟v2x通信的联合资源分配PDF文件第3页](/bimg/c/caff94ee46fe8ae97f7216395583370abfc56aa1.webp)
![ARXIV:2407.05342V1 [CS.CV] 7 JUL 2024
在中的重建和未结构结构共存
评估人类协作:...
arxiv:2407.07035v1 [CS.CL] 9月9日2024
观察非易失性磁性 - 热切换...
旋转角动量的光子准晶体
土匪的集中差异隐私
在AI-... 中优化以人为中心的目标
算法什么时候应该辞职? AI治理的提案
通过预测分析增强网络安全
基于事件触发的增强学习基于超级可靠的低延迟v2x通信的联合资源分配PDF文件第4页](/bimg/f/fe7cf9faacc3d30f4a9eddf6d496c77d13bb4bad.webp)
![ARXIV:2407.05342V1 [CS.CV] 7 JUL 2024
在中的重建和未结构结构共存
评估人类协作:...
arxiv:2407.07035v1 [CS.CL] 9月9日2024
观察非易失性磁性 - 热切换...
旋转角动量的光子准晶体
土匪的集中差异隐私
在AI-... 中优化以人为中心的目标
算法什么时候应该辞职? AI治理的提案
通过预测分析增强网络安全
基于事件触发的增强学习基于超级可靠的低延迟v2x通信的联合资源分配PDF文件第5页](/bimg/8/86044d7cd390b12aa1eab91b7c5e8394026c445b.webp)
